Back محول مولد مسبق التدريب Arabic Generative pre-trained transformer BAR Transformadors generatius pre-entrenats Catalan Generative pre-trained transformer Czech Generativer vortrainierter Transformer German Generative pre-trained transformer English Transformador generativo preentrenado Spanish ترنسفورمر تولیدگر از پیش آموزش‌دیده Persian GPT (kielimalliperhe) Finnish Transformeur génératif pré-entraîné French

GPT

דגם GPT מקורי

GPT (ראשי תיבות: Generative pre-trained transformers; בעברית: טרנספורמר מאומן מראש בעל יכולת יצירה) הוא סוג של מודל שפה גדול (LLM)[1] ואחד מכלי הבינה המלאכותית היוצרת (Generative AI) הבולטים.

ה-GPT הראשון הוצג בשנת 2018 על ידי חברת הבינה המלאכותית האמריקאית OpenAI.[2] המודלים של GPT הם רשתות עצביות מלאכותיות המבוססות על ארכיטקטורת הטרנספורמרים, מאומנות מראש על קבוצות נתונים גדולות של טקסט לא מתוייג, ומסוגלות ליצור תוכן טקסטואלי בדומה לתוכן המיוצר על ידי אדם.[3] נכון לשנת 2023, לרוב ה-LLMs יש את המאפיינים הללו[4] ולעיתים הם מכונים באופן נרחב כ-GPTs.[5]

OpenAI פרסמה מודלים של GPT שמוספרו ברצף, כדי להרכיב את סדרת ה-"GPT-n" שלה.[6] כל גרסה הייתה בעלת יכולות גבוהות מקודמתה, בשל גודל (מספר פרמטרים שניתנים לאימון) והאימונים המשופרים. האחרון שבהם, GPT-4, שוחרר במרץ 2023. מודלים אלו מהווים בסיס למערכות מתקדמות המשתמשות בשירותיהם למשימות ספציפיות, כולל שירות הצ'אטבוט ChatGPT.[7]

המונח "GPT" משמש גם בשמות ובתיאורים של מודלים כאלה שפותחו על ידי חברות אחרות. לדוגמה, מודלים אחרים של בסיס GPT כוללים סדרה של דגמים שנוצרו על ידי EleutherAI,[8] ולאחרונה שבעה דגמים שנוצרו על ידי Cerebras. כמו כן, חברות בתעשיות שונות פיתחו מערכות GPT ספציפיות למשימה בתחומיהן, כגון "EinsteinGPT" של Salesforce (עבור CRM)[9] ו-"BloombergGPT" של בלומברג (לפיננסים).[10]

  1. ^ "The A to Z of Artificial Intelligence". Time. 13 באפריל 2023. {{cite journal}}: (עזרה)
  2. ^ "Improving language understanding with unsupervised learning". openai.com (באנגלית אמריקאית). ארכיון מ-2023-03-18. נבדק ב-2023-03-18.
  3. ^ "Generative AI: a game-changer society needs to be ready for". World Economic Forum.
  4. ^ Toews, Rob. "The Next Generation Of Large Language Models". Forbes.
  5. ^ Mckendrick, Joe (13 במרץ 2023). "Most Jobs Soon To Be 'Influenced' By Artificial Intelligence, Research Out Of OpenAI And University Of Pennsylvania Suggests". Forbes. {{cite web}}: (עזרה)
  6. ^ "GPT-1 to GPT-4: Each of OpenAI's GPT Models Explained and Compared". MUO. 11 באפריל 2023. {{cite web}}: (עזרה)
  7. ^ Haddad, Mohammed. "How does GPT-4 work and how can you start using it in ChatGPT?". www.aljazeera.com.
  8. ^ Alford, Anthony (13 ביולי 2021). "EleutherAI Open-Sources Six Billion Parameter GPT-3 Clone GPT-J". InfoQ. {{cite web}}: (עזרה)
  9. ^ Morrison, Ryan (7 במרץ 2023). "Salesforce launches EinsteinGPT built with OpenAI technology". Tech Monitor. {{cite web}}: (עזרה)
  10. ^ "The ChatGPT of Finance is Here, Bloomberg is Combining AI and Fintech". Forbes.

Developed by StudentB